Được phát triển lần đầu tiên vào năm 1409, loại Hỏa xa của Triều Tiên có lẽ là phiên bản đầu tiên của một hệ thống vũ khí có công năng và cơ chế tương tự như pháo phản lực nhiều nòng hiện nay. Tuy nhiên, mãi đến thập niên 1930, loại pháo phản lực nhiều nòng đầu tiên mới xuất hiện, nó là một khẩu pháo kéo nhỏ mang tên Nebelwerfer do phát xít Đức phát triển. Về sau, trong Thế chiến thứ hai thì các quốc gia Đồng minh phương Tây mới chế tạo những loại vũ khí tương tự dưới dạng của loại tên lửa mang tên "cái nệm" (Mattress).

Pháo phản lực nhiều nòng tự hành đầu tiên - và có lẽ cũng là nổi tiếng nhất - chính là khẩu BM-13 Cachiusa của Hồng quân Liên Xô, được sử dụng lần đầu tiên trong Cuộc chiến tranh Vệ quốc vĩ đại và được xuất khẩu sang các quốc gia khác sau đó. Nó là một hệ thống đơn giản bao gồm một giá đỡ những thanh ray chứa tên lửa, đặt trên lưng một chiếc xe tải. Kết cấu này trở thành nguyên mẫu cho các loại pháo phản lực nhiều nòng về sau. Trong thời kỳ này, quân đội Hoa Kỳ cũng phát triển một loại vũ khí tương tự tên là T34 Calliope, với những ống phóng tên lửa gắn trên nóc một chiếc xe tăng M4 Sherman. Tuy nhiên T34 Calliope chỉ được sử dụng với số lượng nhỏ.